Принудете фирмите за изкуствен интелект да купуват застраховки в ядрен стил, казва Йошуа Бенджио

Компаниите за изкуствен интелект би трябвало да бъдат принудени по закон да имат застраховка за отговорност за покриване на екзистенциални опасности, съгласно един от основните пионери на революционната технология.

Говорейки на срещата на високо ниво на FT за бъдещето на изкуствения разсъдък в Лондон в четвъртък, Йошуа Бенджио предизвести, че фирмите с изкуствен интелект имат малко финансови средства тласъци за създаване на по-безопасни AI системи и че това изисква държавните управления да създадат незабавна интервенция на пазара.

Канадският компютърен академик и притежател на премията Тюринг насърчи политиците да задължат застраховката за отговорност на фирмите с ИИ, както се прави с разработчиците на атомни електроцентрали. Той също по този начин прикани за увеличение на вложенията в научноизследователска и развойна активност за „ парапети “, които защищават хората от пагубни събития, като AI, употребен за създаване на нови биооръжия.

Попитан какво го е предиздвикало да мисли, че не може да се разчита на фирмите да изградят такива парапети, Бенджио сподели: „ Не знам, само че не желая да залагам бъдещето на децата си на това. “

Компютърният академик е измежду по този начин наречените кръстници на AI — чиито проучвания са разчитани за създаване на генеративни AI системи, основани от OpenAI, Anthropic и Гугъл — които са станали все по-загрижени за рисковете, свързани с технологията.

Исканията на Bengio за държавна интервенция идват, когато OpenAI и Anthropic обмислят потреблението на инвеститорски средства за споразумяване на евентуални искове от правосъдни каузи за доста милиарди долари, защото застрахователите не желаят да обезпечат покритие за опасности, свързани с AI.

Хора, близки до обстановката, споделят, че повода застрахователните компании да се въздържат да обезпечат изцяло покритие за AI фирмите идва от невиждания мащаб на евентуални искове, пред които са изправени относително млади софтуерни компании.

Fei-Fei Li, който дружно с Bengio и други пионери на AI беше почетен с премията на кралица Елизабет за инженерство през 2025 година тази седмица, сподели: " Не е отговорност на седем компании и освен няколко индивида познават технологията. Цялата наша отговорност е " да разработим AI с човешкото достолепие в основата си.

Попитана какво мисли за репутацията на Big Tech да " се движи бързо и разрушава неща " - ранен лозунг в обществената мрежа на Meta Фейсбук - Ли сподели: " Това е единствено една компания ", добавяйки, че има учени и други основни фигури, които се стремят да овладеят ексцесиите на Големите софтуерни групи.

„ Ще защитя малко бранша на ИИ “, сподели тя. „ Мисля, че AI секторът е доста огромен и AI екосистемата не е единствено няколко компании. “

Но Бенгио сподели, че AI системите към този момент са потвърдили, че са мощни принадлежности, които могат да основават военни оръжия и са посочили „ лъжливи “ черти, които значат, че могат да се извърнат против човешки консуматори.

Той беше угрижен, че вместо да се съсредоточат върху сигурността, софтуерните компании „ всички се състезават между тях в тази доста напрегната конкуренция, в която желаят техните AI да се показват по-добре при бенчмаркове, [за] да получат по-голяма ангажираност от потребителите, тъй като желаят да са сигурни, че поддържат или усъвършенстват своя пазарен дял “.

Хелън Кинг, вицепрезидент по отговорността в отдела за изкуствен интелект на Гугъл DeepMind, сподели, че политиците обръщат внимание на по този начин наречените гранични опасности за сигурността, само че предизвести, че „ в действителност страховит кодиращ сътрудник също усилва риска да бъде в действителност страховит при хакерски атаки “.

Дебатът по отношение на сигурността на ИИ пристигна ден откакто шефът на Nvidia Дженсън Хуанг сподели пред FT: „ Китай ще завоюва надпреварата в ИИ. “

Ръководителят на производителя на чипове за ИИ и най-ценната листвана компания в света съобщи, че Западът, в това число Съединени американски щати и Обединеното кралство, е арестуван от „ цинизъм “, защото Пекин разхлабва регулациите и понижава енергийните разноски за центровете за данни.

В отговор на мненията на Хуанг, Бенгио сподели, че конкуренцията сред Съединени американски щати и Китай за изкуствен интелект е „ доста нездравословна посока, тъй като е тласък и за двамата играчи да режат ъглите на публичното богатство и сигурността “.